TruEra推出了一个工具，用于发现人工智能偏见和其他问题

可解释的人工智能对于信任、遵从和构建更好(希望更少偏见)的人工智能模型至关重要。客户和监管机构都想知道更多关于黑匣子的信息。但大多数监测工具都会留下盲点，提醒数据科学家注意问题，但没有指出问题的原因。

今天，人工智能初创公司TruEra推出了一项解决方案，让企业不仅能更深入地了解自己的机器学习模型，还能识别问题的根本原因，并几乎在瞬间将其情境化。该工具名为TruEra Monitoring，基于该公司的人工智能质量平台，寻找人工智能质量指标，包括偏差、模型随时间的稳定性，以及哪些特征推动了评分。

TruEra联合创始人兼首席执行官威尔·厄平顿(Will Uppington)在接受采访时表示：“如果一个模型正在经历偏见或漂移，我们可以精确地找出导致这种差异的特征，然后按比例查找他们在多大程度上推动了这种差异。这几乎是即时的，而大多数解决方案只是不做根本原因分析。”

目前的解决方案可以监控基础设施和关键绩效指标，但通过提供一种方法来监控机器学习模型本身的输入和输出，TruEra旨在填补它所称的“监控缺口”。该公司表示，在一些基准测试中，该工具的速度是其他同类解决方案的10倍以上。

另一个不同之处在于，TruEra Monitoring在开发过程中得到了最好的集成，提供了可以在早期形成更好模型的诊断见解。

“很多人采用的方法是模仿SAS基础设施监控，这是一种独立的、非常以性能为导向的活动，而这对于机器学习来说是完全错误的方法，”厄平顿说。“我们认为，正确的做法是，监测只是开发周期的延续。今天的操作数据就是明天的训练数据。”

当使用该工具时，客户可以与各种指示板交互，包括一个概述被监视的每个模型的监视页面。还有调试工具的链接，这样团队可以在发现异常时迅速采取行动。对于喜欢将数据集成到现有平台的用户，还有一个用于导出数据的API。

哈珀柯林斯出版公司(HarperCollins Publishers)是最早部署该工具的公司之一，该公司表示到目前为止“对结果非常满意”。

这家图书出版商从今年2月开始使用TruEra Monitoring，当时它还处于测试阶段。哈珀柯林斯出版公司北美首席信息官马修 班尼特(Matthew Bennett)表示，机器学习的监控是IT管理中缺失的主要部分之一，他很高兴该解决方案能够超越当前的临时工具。

班尼特表示：“TruEra帮助我们改善了对系统输出的监控，摆脱了手工、不可扩展的方式。”